iT邦幫忙

2022 iThome 鐵人賽

DAY 2
0
AI & Data

上課了!李宏毅老師 機器學習 (2021)系列 第 2

機器學習基本概念(二)

  • 分享至 

  • xImage
  •  

之前提到了一個模型,也就是一個函式。

https://chart.googleapis.com/chart?cht=tx&chl=%5Cdisplaystyle%20y%20%3D%20b%20%2B%20w%20x_1

這邊把它擴展一下,變成

https://chart.googleapis.com/chart?cht=tx&chl=%5Cdisplaystyle%20y%3Db%2B%5Csum_i%20c_i%20%5Ctext%7Bsigmoid%7D%20%5Cleft(%20b_i%20%2B%20w_i%20x_1%5Cright)

其中 sigmoid 為

https://chart.googleapis.com/chart?cht=tx&chl=%5Cdisplaystyle%20%5Csigma(x)%20%3D%20%5Cfrac%7B1%7D%7B1%2Be%5E%7B-x%7D%7D

https://chart.googleapis.com/chart?cht=tx&chl=x 很大的時候,這個函式就會是 1,反之,如果 https://chart.googleapis.com/chart?cht=tx&chl=x 很小,這個函式就會輸出為 https://chart.googleapis.com/chart?cht=tx&chl=%5Ctheta 。除此之外,這個式子還增加了很多不同的 https://chart.googleapis.com/chart?cht=tx&chl=b_ihttps://chart.googleapis.com/chart?cht=tx&chl=w_i ,就可以組合出更多不同的函式。又如果,我們有很多的特徵(features),那函式就可以由

https://chart.googleapis.com/chart?cht=tx&chl=%5Cdisplaystyle%20y%20%3D%20b%20%2B%20%5Csum_j%20w_j%20x_j

再改寫成這樣

https://chart.googleapis.com/chart?cht=tx&chl=%5Cdisplaystyle%20y%3Db%2B%5Csum_i%20c_i%20%5Ctext%7Bsigmoid%7D%20%5Cleft(%20b_i%20%2B%20%5Csum_j%20w_%7Bij%7D%20x_j%5Cright)

這樣也就可以輸入很多不同的特徵來得到輸出了。而這個式子也可以看做:我們將很多不同的 sigmoid 函式相加在一起來得到輸出。因此只要找到對的參數(parameters),同時由人設定好的超參數(hypyerparameters),就可以得到一個預測會正確的模型了。這邊也可以用矩陣的方式來表示。

https://chart.googleapis.com/chart?cht=tx&chl=%5Cdisplaystyle%20y%20%3D%20b%20%2B%5Csigma%20%5Cleft(%20c%5E%7BT%7D%20%5Cleft(%20b%20%2B%20w%20x%20%5Cright)%20%5Cright)

到這裡已將做好了步驟一:找到一個函式。這個函式有著要尋找的未知數。再來要定義損失,這邊損失函式就用

https://chart.googleapis.com/chart?cht=tx&chl=%5Cdisplaystyle%20L%20%3D%20%5Cfrac%7B1%7D%7BN%7D%20%5Csum_n%20(y_n%20-%20%5Chat%7By%7D_n)

第三個步驟,就是透過最佳化方法來找出未知數 https://chart.googleapis.com/chart?cht=tx&chl=theta。 也就是

https://chart.googleapis.com/chart?cht=tx&chl=%5Cdisplaystyle%20%5Ctheta%5E*%20%3D%20%5Carg%20%5Cmin_%7B%5Ctheta%7D%20L

然後,在計算最佳化的過程,可以隨機分批的餵入函式來找出 https://chart.googleapis.com/chart?cht=tx&chl=theta。 當所有的資料都用過一輪,就稱為一代(epoch)。

如果用了很多層來,就可以稱之為深度學習。



上一篇
機器學習基本概念(一)
下一篇
機器學習任務攻略
系列文
上課了!李宏毅老師 機器學習 (2021)16
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言